Compute Globally, Materialize Locally: The Memory Contract of Sparse Event-KV
全局计算，本地物化：稀疏事件KV缓存的内存契约
🧭 LLM推理 · KV缓存语义存留机制 ★ 深度解读
Independent Researchers
从服务中省略源观测，下游事件的KV缓存仍能携带上游计算结果，且可被程序化写入
📌 工作参考价值（4 点）
- Agent记忆系统的写入策略：若要用KV缓存做记忆，不要依赖自然对话中的隐式提及，应主动插入简洁的“载体事件”（如一个计算指令）。当前模型上，主动写入比被动收割在Qwen3-8B上将携带状态恢复率从6%提升至51%。需按模型校准触发词（如用“consist”而非“write”），并始终保留显式文本记录作为回退。
- Eviction/Prefix缓存评估风险：丢弃一个源事件后若模型准确率未下降，不能断定该源事件无用——其状态可能已物化到后续事件的KV行中。评估策略时，需用隐蔽源值+控制token不变的“捐赠者对”方法，隔离文本泄露与纯KV信息存留。
- 多跳推理路由优化：在多步依赖链中，根源事件的行携带主要信号，引用边仅路由回根。选择缓存行时，保留根节点即可，不必全链路保存，可指导检索增强生成中回滚/缓存复用逻辑。
- 状态更新开销：修正谬误时，追加一个补丁事件的KV覆盖即可，代价O(pL+p²)而非全量重算O(L²)。但补丁本身会干扰历史查询，需查询范围限定与模板兼容性处理。